Notas editoriales

Con la coautoría de Diego Gutiérrez Vargas

Desde el 30 de noviembre de 2022, que se publicó el aclamado ChatGPT se popularizó rápidamente la inteligencia artificial dándole una gran motivación por su grande versatilidad y usos para que otras empresas tecnológicas como Google fueran a crear su propio ChatGPT, conocido como Gemini, anteriormente Bard.

Lea también: Chihuahua impulsa alianzas tecnológicas en Taiwán

Este suceso inédito de la disponibilidad sin restricciones de un Modelo de Lenguaje Grande, o LLM por sus siglas en inglés, para todo el Internet ha influenciado para siempre el desarrollo de la IA generativa, el campo laboral y educativo en todos sus niveles.

Para entender como el ChatGPT hace lo que hace hay que entender que es un LLM. Un LLM es una red neuronal de una masiva cantidad de parámetros (ChatGPT cuando se lanzo tenía 175, 000 millones de parámetros) entrenadas por grandes cantidades de texto de distintos documentos. (AWS) Los LLM utilizan los transformadores, para decir la secuencia de la siguiente palabra y crear una oración coherente para la respuesta al usuario.

Los transformadores toman el contexto y las relaciones de las palabras para generar un resultado apropiado. No obstante, como se rigen en probabilidades no es improbable tener alguna respuesta incoherente de respuesta. Además, a un entrenamiento de datos es común como en cualquier otro algoritmo ver los sesgos de los datos entrenados en las respuestas a los usuarios. Es conocido como “fine-tuning” para corregir estos resultados y obtener (AWS)

Como se puede ver el poderío de ChatGPT y la IA generativa es amplio, pero infalible ni perfecta es. Aun así, es notable su impacto en la educación actual en los distintos niveles de la educación, especialmente en la educación superior. En la Revista Electrónica Formación y Calidad Educativa, Marcillo et al. 2023 realiza un metaanálisis sobre las implicaciones distintas sobre la IA en las ramas: jurídica, ética y bioética, enseñanza y aprendizaje y la gestión universitaria.

Las afectaciones en el primer ámbito se ven reflejado, ya que la IA puede fomentar los prejuicios y discriminaciones ya establecidos. Los creadores tienen que ser muy perspicaces y responsables al entrenar los LLMs para que no se perpetue ideologías perjudiciales a la ética humana.

En el área de enseñanza y aprendizaje, se puede ver cómo es muy fina la línea de hacer uso propio de la IA como una herramienta más a simplemente hacer que la inteligencia artificial realice los trabajos propios, ya que se encuentra comúnmente la práctica de entregar materiales académicos por ChatGPT o que sea modificado por una IA generativa que lo humanice para hacer sus entregas.

La ONU ve la IA como una herramienta para lograr los ODS (Objetivos de Desarrollo Sostenible), uno de los cuales trata sobre la educación. Esta ODS plantea que para 2030 busca “garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos” (ONU). La UNESCO, rama de la ONU, incluso trae una guía para el uso de IA generativa e investigación, la cual ha traído beneficios para la cultura del uso de la tecnología.

En esta guía se tiene un marco para definir que es la IA generativa, como funciona y plantea distintas éticas y políticas controversiales de su uso en general. No solo eso sino también propone distintas medidas de desarrollo para un rubro político coherente e integral sobre estas tecnologías para su uso en educación e investigación. (UNESCO)

El desarrollo incremental de la IA ha tenido efectos significativos en distintas áreas de conocimiento y actividad humana, siendo un ejemplo famoso de ChatGPT, una IA generativa que ha sido controversial de sus impactos desde su publicación.

Las tecnologías de la industria 4.0 como lo es la IA puede tener sesgos propagados inconsciente o conscientemente desde los desarrolladores que pueda incitar ciertos prejuicios, por ello, es importante un entrenamiento adecuado e integro por parte de los desarrolladores para evitarlo y proveer un producto que no se encuentre afiliado a ideologías dañinas.

La educación actual se tiene que acomodar con la tecnología de la era y así darle un propio uso de estas para empoderar las capacidades de entendimiento de los estudiantes y no que sea un impedimento al aprendizaje, ética y gestión personal. Como se puede notar en los esfuerzos de la ONU de la utilización de estas herramientas si se pueden aplicar para la mejora del mundo en el ámbito educativo y ya hay un marco general del cómo usarlas adecuadamente.